Giai điệu được William Steffe viết vào khoảng năm 1855. Đầu tiên bài hát có tên "Canaan's Happy Shore" hay "Brothers, Will You Meet Me?". Sau đó nhạc bài hát lan truyền khắp Hoa Kỳ với nhiều lời ca khác nhau.

Thomas từ Vermont gia nhập đội lính bộ binh Massachusetts trước khi nổ ra chiến tranh. Ông đã biên soạn lời bài hát khoảng năm 1860 với tiêu đề "John Brown's Body" (Thân thể John Brown) và trở thành một trong bộ hành quân ca của ông. Theo nhà văn Irwin Silber (tác giả cuốn sách về các bài dân ca về nội chiến), nguyên bản lời bài hát chỉ nói về John Brown, người nổi tiếng trong phong trào bãi nô.

John Brown vốn là nhà hoạt động đòi chấm dứt chế độ nô lệ. Năm 1859, John Brown định phát động một cuộc nổi dậy của nô lệ. Ông dẫn đầu một cuộc tấn công ở Harper’s Ferry, nơi có một nhà máy sản xuất súng cho quân đội và một kho quân trang quân dụng. Cuộc tấn công đã thất bại. John Brown bị bỏ tù vì tội phản bội và bị kết án treo cổ. Tại các bang miền Bắc Hoa Kỳ, John Brown trở thành một vị anh hùng. Người ta kể chuyện về ông qua một bài hát và những người lính rất yêu thích bài hát này, nó đã trở thành khúc quân hành của những người lính miền Bắc.

Tiểu đoàn của linh mục được gửi tới Washington, D.C. từ đầu cuộc nội chiến. Bài hát về nhà hoạt động bãi nô John Brown, kể về chuyện thân thể của ông đã tan vào lòng đất dưới mộ ra sao, nhưng tinh thần của ông vẫn sáng ngời.

Tình cờ, một thủ lĩnh trong các phong trào bãi nô ở Hoa Kỳ, đồng thời là nữ văn sĩ Julia Ward Howe nghe được bài hát này trong lần khi xem đoàn quân diễu hành ngoài phố tại Washington, D.C.. Julia Ward Howe rất thích hát bài hát này. Bà thấy nhạc của bài hát rất hay nhưng lời hát về John Brown thì không ổn. Cùng một câu hát "John Brown’s body lies a mouldering in his grave" (Xác John Brown mủn dần đi dưới huyệt) vừa có thể mang ý nghĩa ngợi ca, vừa có thể bị coi là một lời chế giễu. Và bà quyết định viết lại lời bài hát.

Lời bài hát mới được bà viết như một bài thơ trong đêm 18/11/1861 khi bà đang nằm trong phòng khách sạn Willard. Theo lời kể của bà: "Tôi đi ngủ sớm như thường lệ, nhưng choàng tỉnh khi mặt trời còn chưa ló rạng. Thật ngạc nhiên, vì những câu chữ tôi luôn đau đáu muốn viết bỗng chốc hiện ra rõ ràng trong đầu. Tôi nằm bất động cho đến khi những suy nghĩ về khổ thơ cuối kết thúc, tôi vội vã trở dậy, tự nhủ rằng những vần thơ sẽ biến mất nếu tôi không kịp ghi lại. Tôi tìm thấy một mảnh giấy cũ cùng một mẩu bút chì và bắt đầu viết nguệch ngoạc mà không cần nhìn xem mình viết gì, vì tôi đã quen với việc ghi lại những ý tưởng đến một cách bất ngờ trong căn phòng tối khi con tôi đang ngủ. Hoàn thành xong, tôi tiếp tục giấc ngủ dở dang với một cảm giác rất rõ ràng rằng tôi vừa làm được một việc hết sức quan trọng".[1]

Julia Ward Howe đã mượn những hình ảnh ẩn dụ trong kinh Cựu Ước và kinh Tân Ước để cổ vũ tinh thần chiến đấu của các chiến sĩ vì lý tưởng họ theo đuổi. Bà muốn gửi gắm thông điệp cuộc chiến tranh không chỉ là để trả thù cho một người tử vì nghĩa, mà rộng hơn thế là hướng tới việc kết thúc chế độ nô lệ đã tồn tại hàng trăm năm tại Hoa Kỳ.

Tạp chí The Atlantic Monthly đã mua lại bài thơ của bà và cho xuất bản lần đầu năm 1862.[2] Những lời thơ mang ý nghĩa tôn giáo, giống như một bài thánh ca ca ngợi Chúa. Ban đầu khi phát hành, bài ca không được phổ cập. Nó được phát lần đầu vào năm 1863. Đây chính là phiên bản lời ca thứ sáu của giai điệu này.

Cả bài "John Brown" và "Battle Hymn of the Republic" đều được công bố sau đó trong tập những bài dân ca năm 1874 và tái bản năm 1889. Cả hai bài đều có cùng điệp khúc và thêm chữ "Glory" (vinh quang) ở dòng thứ hai: "Glory! Glory! Glory! Hallelujah!"[3]